문서의 임의 삭제는 제재 대상으로, 문서를 삭제하려면 삭제 토론을 진행해야 합니다. 문서 보기문서 삭제토론 AI Dungeon (문단 편집) == 검열 및 사생활 침해 논란 == 2021년 2/4분기 들어 최근 개발자들이 검열의지를 드러냈다. 내용상에 미성년자를 암시하는 단어[* little/young, boy/girl 등의 단어가 들어가거나, 또한 5~16 years old 형식으로 5-16세 이내의 연령이 명시된 것이 감지되어야 했으나, 추후 필터 관련 업데이트가 계속되면서 검열 범위가 늘어났는지 boy나 youth와 같은 일반 명사만 입력해도 필터에 걸린다는 보고가 눈에 띈다.]가 감지될 경우 검열 대상이 되며, 해당 문구들이 감지된 상태에서 개발진이 지정해둔 성적인 단어[* ass, cock, breast 등의 신체 부위를 뜻하는 단어, [[섹스|sex]], [[fuck]] 등. 단어를 어절 단위로 감지하는 게 아니라 해당 문구가 내용에 포함되어있기만 하면 검열 대상이 되므로, 성적인 뉘앙스가 없지만 단어 내에 검열 대상 단어가 포함되는 __Cock__pit([[콕핏]]), __Breast__plate(흉갑), __Infant__ry(보병)같은 단어도 필터에 걸린다.]가 추가로 감지된다면 'AI가 무슨 말을 해야할지 모른다', '내용이 좀 이상한 것같다'같은 문구만 나오면서 어드벤처가 진행되지 않는다. [[https://rentry.co/vfigb|발견된 검열 대상 단어를 목록화한 페이지]] 그런데 이 필터 적용이 매우 멍청해서 일상적인 묘사에서도 'young girl'이나 'I am a boy'와 같은 문구가 들어가기만 해도 검열되며 '수박 네 통만 사고 싶은데요'[* [[https://www.reddit.com/r/AIDungeon/comments/n0jm09/bruh/|원문]]: I'd like to buy 4 watermelons pls]나 '개가 방으로 들어갔다'라는 검열될 거리가 전혀 없는 문장에서도 검열이 되고 있다. 이러한 검열 단어를 하나의 문단이나 일정 범위 내에서가 아니라 전체 내용에서 있는지 없는지를 따지기에, 어린이가 등장하는 내용에서 한참 뒤에야 (어린이와 전혀 상관없이) 성적인 내용으로 넘어가거나 반대로 성적인 내용이 끝난 뒤 한참 뒤에 어린이가 나오더라도 필터에 걸린다. AI가 글 내용이 부적절한지 적절한지 판단할 능력같은 게 있을리가 없기에, 단편적인 문구만 보고 검열을 진행하는 것. 심지어 처음 검열을 개시했을 때는 [[개|the dog]]나 [[말|the horse]]같은 단어도 ([[수간]] 여지가 있어서인지) 검열 대상이 되었는데, 이로 인해 AI 던전에서 기본 제공하는 판타지 프롬프트조차 망가지는 문제가 있어서 결국 dog, horse 필터링은 소리소문없이 철회됐을 정도. 게다가 이 프롬프트 검열 업데이트를 유저들에게, 심지어 커뮤니티 중재자들에게도 알리지 않고 [[잠수함 패치|은근슬쩍 진행하려다]] 최근들어 멍청해진 AI의 원인을 찾던 유저들에 의해 밝혀지고서야 공식 공지를 띄우면서 논란이 더욱 커지게 되었다. 더 큰 문제는 진행 중인 내용이 단어 검열에 걸릴 경우 개발사인 Latitude에 자동으로 신고가 들어가며, 이렇게 되면 직원이 '''비공개 자료를 포함한''' 해당 플레이어의 모든 자료를 열람이 가능한데다 자의적으로 삭제도 가능하다고 한다. 앞서 언급한 단순하기 짝이 없는 검열 방식과 이어지면, 정말 아무 문제없이 게임을 진행하던 사람이라도 그냥 단어 선별을 조금 잘못했다는 이유로 잘 써나가던 스토리가 막히는 것은 물론 개인 자료까지 사찰을 당할 수 있다는 이야기. 영미권에서는 검열 자체보다도 이런 형편없는 검열 방식과 이로 인한 사생활 침해 우려가 더 문제시되고 있다. 심지어 플레이어가 삭제한 자료도 그대로 삭제되는 게 아니라 플레이어에게 보이지 않게 '삭제 플래그'만 꽂힌 채 직원이 검열할 수 있는 상태로 잔류한다는 모양. 이러한 점으로 인해 최근 구독해지 및 계정 삭제를 하고 있는 사용자들이 많아지고 있으며, 플레이 스토어 평점도 하락일로를 걷고 있다. 오픈 AI 측의 제약을 받지 않는 GPT-NEO 등의 오픈 소스 AI를 써서 새로운 AI 스토리텔링 프로그램을 만들어 이주하려는 움직임도 있다. 더군다나 이러한 검열 및 사생활 침해 논란으로 엮여서 새로 드러난 사실로, 인게임 자료의 ID 생성 방식이 단순해 딱히 개발사 직원이 아니라도 손 좀 쓰면 '''아무나''' 타인의 비공개 자료를 들여다볼 수 있다는 사실이 밝혀졌다. [[4chan]]같은 커뮤니티에서는 이런 식으로 내부 자료를 수집해 전체 시나리오 중 성인향 시나리오의 비율 통계같은 걸 내기도 했을 정도. 데이터베이스 보안이 워낙 형편없다보니 시나리오나 어드벤처같은 게 문제가 아니라 이메일, 계좌 번호 등의 개인 정보까지 털릴 수도 있다는 우려도 있다.[[https://www.reddit.com/r/AIDungeon/comments/nnoo5y/latitude_violated_google_and_paypals_tos/|이에 대해 자사의 개인정보 보호정책은 물론, 구글과 페이팔의 약관도 위반이란 지적이 나오면서 신고 넣어 막자는 말까지 나올정도.]] 특히 한국의 경우 인공지능 [[이루다(인공지능)|이루다]]에서 이미 비슷한 전례를 경험했기에 더욱 주목하고 있다. 이에 대해 개발자 측에서는 소통 의사를 전혀 보이지 않고 있다. 메인 페이지에서 레딧, 디스코드 등의 공식 커뮤니티로 가는 링크를 없애버리고, 공식 디스코드는 아예 5월 이후 동결 상태, 검열 공지를 띄운 4월 28일 이후 약 3주가 되도록 [[https://play.aidungeon.io/main/allUpdates|업데이트 로그]]를 갱신하지 않다가[* 물론 업데이트할 거리가 없다면 로그 갱신도 없을 수도 있긴 하지만, 링크된 로그를 훓어보면 알 수 있듯 AI Dungeon은 업데이트간 간격이 길어도 일주일이 넘지 않을 정도로 업데이트가 굉장히 활발한 편이었다. 그런데 갑자기 3주나 로그 갱신이 미뤄졌다는 것은 아무래도 뭔가 숨은 의도가 있어서 갱신을 미뤘다고밖에 볼 수 없다.] 5월 18일에야 로그 갱신을 재개했으나 관련 이슈에 대해서는 일언반구도 없었다. 더구나 AI 검열을 우회하기 위한 우회 스크립트[* 검열 대상이 되는 단어들을 검열에는 걸리지 않되 AI가 알아들을 수 있는 다른 단어로 치환해주는 스크립트. 얼핏 말만 들으면 사측에서 금지한 내용을 다루려는 부정한 시도로 보일 수도 있지만, 문서 내에도 언급되어있듯 자동 검열 방식이 워낙 멍청한데다 AI 자체가 근본적으로 자극적인 내용으로 학습되어있다보니 이런 우회책이라도 쓰지 않으면 정상적인 스토리도 진행하기 어렵다.]가 고안되기도 했는데, 해당 스크립트를 이용했다는 이유만으로 [[https://arca.live/b/textgame/26333088|플레이어 계정을 차단한 사례까지 있다.]][* 링크된 게시물에도 나와있지만 우회 스크립트 이용을 이유로 차단하는 것은 굉장한 악수인데, 만약 우회를 시도했다는 의혹만으로 차단했을 경우 [[무고밴|의혹만으로 플레이어 계정을 틀어막는]] 유저 배려가 전혀 없는 무례한 게임으로 낙인찍히기 좋고, 우회한 것을 확인하고 차단했을 경우 개발진이 유저 개개인의 스크립트 사용 여부를 __참 쉽게도__ 뜯어볼 수 있음이 확인됨에 따라 기존에 문제시되던 사생활 침해 논란을 더 부추기게 된다.] 이 같은 검열이 유저 개인정보 보안 이슈를 덮기 위한 의도적인 트롤링이라거나, [[https://arca.live/b/textgame/25325848|투자자 유치를 위한 위선]]이라는 등 억측이 있던 와중에, 어느 이용자가 개발자들이 AID 초기의 파인 튜닝에 쓴 스토리[* 그러니까 공개 서비스를 시작하기 전에 개발자 측에서 직접 입력해 가르친 이야기.]를 github에 있던 자료에서 찾아내 공개했다. 그 내용에 래티튜드 측에서 검열 대상으로 삼은 __소아성애적 묘사__는 물론, __아동 납치, 아동 세뇌, 호모포비아와 인종차별, 홀로코스트 옹호__ 등의 극도로 자극적인 내용을 __개발진들이 다수 포함시켜놓아__ 업로드한 이용자도 기분 상하기 싫으면 읽지 말것을 권고했다. [[https://gitgud.io/AuroraPurgatio/aurorapurgatio|#]] 링크된 글을 읽어보면 언급되지만, 시나리오 진행 중에 개연성없이 마구 튀어나와 불평을 사던 Count Gray (202회 등장)나 뱀파이어같은 개념들도 이미 파인 튜닝 단계에서 입력돼있었다. 진행 중이던 어드벤처가 너무 쉽게 잔인하거나 음란한 내용으로 넘어가던 것도 플레이어들이 학습시킨 내용들 때문이 아니라, '''애초에 개발진이 처음부터 극도로 자극적인 내용을 학습시켰던 것'''으로, AI도 그걸 기반으로 추가 학습을 해나갔던 것이다. 이후 2021년 후반경 openAI 측에서 직접 [[https://arca.live/b/textgame/38934025|GPT를 부적절한 내용으로 이용하는 것을 완전히 금지하겠다고]] 못박음에 따라[* 알고리즘으로 부적절한 내용의 작성을 전면 통제하겠다고 하는데, 현실적으로 알고리즘만으로 부적절한 내용의 완전 검열이 가능한지 여부는 넘어가더라도, 기존에 이미 입력된 내용들 중 가이드라인에 어긋나는 내용을 전부 먹통으로 만든다면 상당한 수준의 성능 하락이 불가피해보인다.] AI Dungeon도 OpenAI의 [[GPT-3]]에서 AI21사의 Jurassic AI로 넘어가겠다고 발표했으나, 기존의 검열이 없어질지는 알 수 없다. 2023년 기준, 검열은 없어진 상태이다. 2023년 4월 기준, 어플리케이션을 사용할 수 없음이라 뜬다. 브라우저로는 여전히 플레이 가능하다.저장 버튼을 클릭하면 당신이 기여한 내용을 CC-BY-NC-SA 2.0 KR으로 배포하고,기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다.이 동의는 철회할 수 없습니다.캡챠저장미리보기